Pada masa pendudukan Jepun, Yunus terlibat dalam mendirikan Majlis Islam Tinggi (MIT) Minangkabau. Ketika Jepun mendirikan PETA di pulau Jawa untuk membantu tentera Jepun menghadapi serangan balasan tentera eekutu, Residen Kenzo Yano yang berpengkalan di Padang mengambil inisiatif membentuk tentera Gyugun .Gyugun mendapat dukungan dari para ulama Minangkabau dan menerima latihan ketenteraan dari Jepun. Antaranya ialah Chatib Sulaiman dan Ahmad Datuk Simarajo. Yunus ditugaskan untuk merekrut ahli Gyugun, mempertahankan kemerdekaan dan menjadi askar rakyat di Minangkabau.

Pada tahun 1943, Yunus dilantik menjadi penasihat residen (Syu Cho Kan) di Padang.Dia mencadangkan agar pendidikan agama Islam dimasukkan dan diterapkan dalam sistem pendidikan.Cadangannya diterima tapi sayang, pendudukan Jepun atas Indonesia tamat seiring pengisytiharan kemerdekaan pada 17 Ogos 1945.

Tentera Sekutu masuk melalui Pelabuhan Teluk Bayur pada 1945. Normal Islam School terpaksa ditutup kerana guru dan murid pindak ke daerah lain. Pada September 1946, Yunus mendirikan Sekolah Menengah Islam (SMI) di Bukittinggi. Kelengkapan seperti kerusi, meja, peta, dan alat-alat praktikum diangkut dari Padang. SMI kemudian berubah menjadi Sekolah Guru dan Hakim Agama (SGHA) pada 1951.